Eski OpenAI yöneticisi Helen Toner: "Yapay zeka daha fazla ilerlemese bile etkisi internetin etkisine benzer düzeyde."

33 yaşındaki Helen Toner'ın (Avustralya'nın Melbourne şehrinde doğdu) yapay zekayla uzun ve hareketli bir ilişkisi oldu. Onun için belirleyici an , 2021'de OpenAI yönetim kuruluna girmesiydi, ancak daha da önemlisi, Kasım 2023'te Sam Altman'ı CEO olarak görevden almak için oy kullandıktan kısa bir süre sonra ayrılmasıydı. Toner, ChatGPT'yi yaratan şirketteki bu deneyimini bu röportajda tartışmayı reddediyor, ancak daha önce şu fikrini paylaşmıştı: Altman yönetim kuruluna karşı dürüst değildi. Toner, “ChatGPT’yi Twitter’da öğrendik” dedi. Bazı yöneticilere göre, söz konusu yöneticinin şirket içinde "zehirli bir atmosfer" yarattığı da ifade edildi.

Bu mücadele Altman'ın görevine iade edilmesiyle sona erdi . Toner, uzmanlık alanlarından ikisi olan savunma ve Çin'deki yapay zeka gelişimini Georgetown Üniversitesi (Washington, ABD) Güvenlik ve Gelişen Teknolojiler Merkezi'nden yakından takip ediyor. Yapay zekanın geleceğine ilişkin vizyonunu daha önce Kongre'de ifade etmişti ve bu vizyonunu bu video röportajında ​​açıklıyor.

Sormak. Neden birçok kullanıcı yapay zekaya büyülü özellikler veriyor?

Cevap. Bunun iki nedeni olduğunu söyleyebilirim. Birincisi, yapay zekayı bilimkurgudan öğrendik; yapay zeka çoğu zaman yanılmazdır. Bazen iyidir, bazen kötüdür, ama her zaman doğru cevapları vardır ve her şeyi başarabilir. Kurgudaki rolleri perilerin, tanrıların veya doğaüstü varlıkların rolüne benzer. Bir diğer neden ise bilgisayarlar hakkında düşünme şeklimizi değiştirmemiz gerektiğidir. Şimdiye kadar teknolojiyi kullandığımızda her şey iyi ve öngörülebilir şekilde çalışıyordu. Bir hesap makinesi bir hesaplama yapabiliyorsa, her zaman doğru hesap yapar; Uzun bölme işleminin üçüncü basamağında asla hata yapmaz. Ama bu yapay zekalar öyle değil: deterministik değiller, farklı cevaplar veriyorlar, mükemmel bir algoritmayı takip etmiyorlar. Bu yeni bir şey ve biz buna alışkın değiliz.

S. Yapay zeka ne kadar ileri gidebilir?

A. Bazı insanlar sanki genel yapay zeka gibi net bir hedef varmış gibi konuşuyorlar; birçok kişi bunu insan kadar iyi bir yapay zeka olarak tanımlıyor. Ancak yapay zeka hiçbir zaman bir insanın yeteneklerine sahip olmayacak. Yapay zekanın bizden çok daha iyi olduğu konular da var, kötü olduğu konular da. Yapay zekayı insan kadar iyi hale getirsek bile yine de farklı olacak. Salsa dansında veya başka biriyle swing doğaçlamasında insanlar kadar iyi olan robotların asla olacağını sanmıyorum. Böyle bir şey inşa etmenin bir anlamı yok. Ama stratejik veya entelektüel görevlerde insanları geride bırakabilecek çok güçlü sistemlere sahip olacağız. Sanki kaderimiz belliymiş gibi konuşuyoruz ama aslında geleceğin nasıl olacağını bilmiyoruz.

S. Yapay zeka ile ilgili temel endişeniz nedir?

R. Çok çeşitli aromaları var. Bana en olası görünen kötü senaryolar, yapay zeka sistemlerine giderek daha fazla özerklik vermeye ve onları topluma giderek daha fazla entegre etmeye karar vermemiz yönündeki senaryolardır. Bu ilk adım olurdu. İkincisi pek çok farklı şey olabilir. Yapay zekaların birbirleriyle işbirliği yapmaya başlaması ve sonunda insanları kontrol altına alması mümkün olabilir. Belki de güzel görünen ama aslında hiçbir mantığı olmayan bir dünyada yaşıyoruz: Günümüzü TikTok izleyerek, lezzetli abur cuburlar yiyerek geçiriyoruz ama anlamlı bir hayat yaşamıyoruz. Ya da küçük bir grup insan yapay zekayla işbirliği yapar, tüm gücü ele geçirir ve totaliter bir dünyayla karşı karşıya kalırız.

S. Bunun gerçekten olabileceğini düşünüyor musunuz?

A. Bence çok ama çok kötü sonuçlar doğurabilir. Ve bence 'hepimiz öleceğiz'den çok daha fazla sayıda korkunç şekilde ters gidebilecek şey var. Hepimiz sonunda ölebiliriz, ancak yalnızca bu senaryoya odaklanmak yanlıştır.

S. Yapay zekanın manipülasyon yeteneğine sahip olduğunu gösteren çalışmalar görüyoruz. Endişeleniyor musunuz?

A. Bu, seni neye ikna etmek istediğine bağlı. Bana daha gerçekçi gelen bir inanış biçimi, insanların yapay zekanın bir arkadaş gibi olduğuna, onları izlediğine ve takip etmeleri gereken bilge bir adam olduğuna inandıkları yapay zeka temelli tarikatlar gibi bir şey. İnsan tarikatlarının tarihi bize, bir tarikat kurmanın oldukça kolay olduğunu ve insanların oldukça çılgınca şeyler yaptığını gösteriyor. Şimdiye kadar bunlar genellikle az sayıda insanı kapsıyordu. Yapay zekaya dayalı tarikatlar göreceğimize eminiz.

S. Bir tarikatı yönetebilecek bir yapay zeka yaratmak basit bir şey gibi görünmüyor.

R. İlginç olacak. En azından birçok insanın yapay zekalarıyla kişisel ilişkileri olacak. Zaten bu oluyor.

S. Çin yapay zeka konusunda ne kadar ileri düzeyde?

A. Yapay zekanın hangi kısmına baktığınıza bağlı. Daha ileri sistemlerde ise ABD önde kalmaya devam ediyor. Ben ulusal güvenlik konuları üzerinde çalışıyorum ve orada bilgi edinmenin daha zor olduğunu düşünüyorum. Yapay zekanın askeri alanda nasıl uygulanacağı daha da önemli olacak. ABD'nin Çin'den daha iyi durumda olmasını beklerdim ama bunu bilmek kolay değil ve bu, daha gelişmiş modeller inşa etmekten farklı bir sorun. Sınır modellerinden bahsettiğimizde bunu ölçmek de zordur. Çin'in bir veya iki yıl geride olduğunu söyleyebilirim mi bilmiyorum. Elimizdeki en son veri DeepSeek V3'ün kullanıma sunulduğudur. DeepSeek iki model yayınladı ve birçok kişi R1 yani akıl yürütme modeli konusunda heyecanlandı. Ancak yapay zeka alanında çalışanların çoğu, V3'ün daha etkileyici olduğunu düşünüyor. Aralık ayında piyasaya sürdüler ve ABD'deki eşdeğer modelden muhtemelen altı ila dokuz ay gerideydi, mantık modeli ise üç veya dört ay gerideydi. Ancak o zamandan bu yana Amerikan şirketleri ilerlemeye devam etti ve Çin'den henüz bir yanıt gelmedi. Şu anda altı ila on iki ay gerideler, ancak çip ihracatı kontrollerinin uygulanmasıyla bu fark daha da açılabilir.

S. Askeri yapay zekadan ne kadar korkmalıyız?

A. Yapay zeka birçok şeydir. Orduların bunu kullanması normaldir. Bütün orduların insan kaynakları ve finans gibi çok büyük bir idari bileşeni var, dolayısıyla bunları işletmeler gibi kullanmak çok mantıklı. Ayrıca, insan analistlerin inceleyebileceğinden çok daha fazla materyale sahip olduğunuzda görüntüleri analiz etmek için de kullanabilirsiniz. Bunu ayrıca "öngörücü bakım" adını verdikleri şey için de kullanmaya çalıştılar: Çok sayıda helikopteriniz var ve bunlara ne zaman bakım yapacağınızı bilmek istiyorsunuz. Bir motorun ne zaman bozulacağını veya bir parçanın ne zaman değiştirilmesi gerektiğini daha iyi tahmin edebilirseniz.

S. Peki otonom silahlar ?

R. Yapay zeka ve ordu hakkındaki tartışmalar bu konuya çok fazla odaklanıyor. Ve bu sadece küçük bir kısım. Sadece otonom silahlara odaklanmak en iyi yaklaşım değildir. Ben, halihazırda var olan savaş hukukuna, uluslararası insancıl hukuka odaklanmamızın daha önemli olduğunu düşünüyorum. Savaşçılar ile siviller arasında bir ayrım yapılıyor mu? Saldırılara orantılı bir şekilde karşılık veriliyor mu? Yapay zeka ve savaşın ciddi anlamda ters gittiği senaryoları hayal ettiğimizde, bunun nedeni genellikle savaşçılar yerine sivillerin saldırıya uğramasıdır. Ve bu zaten uluslararası hukuka göre yasadışıdır.

S. Yapay zeka iş modeli her zaman abonelik tabanlı mı olacak?

A. Bence büyük para tüketicilerden değil, işletmelerden gelecek. Çünkü çok amaçlı bir teknoloji, insanların ceplerinde taşıdıkları eğlenceli bir sohbet robotu değil, her türlü ekonomik üretkenlik ve inovasyon için güçlü bir araç olacak. Dolayısıyla işletme tarafındaki gelirin çok büyük olacağını düşünüyorum.

S. Yapay zeka daha fazla ilerlemezse, ekonomiyi değiştirme kapasitesine sahip mi?

A: Evet. Yapay zeka gibi genel amaçlı teknolojilerin ekonomiye entegre olması onlarca yıl alıyor. Yapay zeka gelişimi dursa bile, birçok kişinin öngördüğü kadar büyük bir dönüşüm olur mu bilmiyorum ama en azından internet kadar büyük olur. İnternetin olmadığı bir dönemden internetin olduğu bir döneme geçişimiz on yıllar sürdü. Şimdi dursak bile, yapay zekayı sağlık, eğitim, iş süreçleri, hukuk ve finans alanlarına entegre etmek için yapılması gereken çok iş var.

S: Yapay zekanın yapabileceklerinin sınırına ulaştık mı?

R. Ben buna bahse girmem. Yapay zeka alanında son 15 yılın hikayesi, yapay zekanın nasıl inşa edildiğini tamamen değiştiren büyük yeniliklerden değil, birikerek bir araya geldiklerinde önemli ilerlemeler sağlayan küçük veya orta ölçekli iyileştirmelerden oluşuyor. Şu anda alıştığımız harika dil modelleri, sohbet robotları var. Ancak şirketler iki ana yöne doğru ilerliyor. Bir, akıl yürütme modelleri : Onlara adım adım düşünmeyi öğreterek daha karmaşık problemleri çözebilmelerini sağlamak. İkincisi, aracılar: Sizin için işler yaparlar, kararlar alırlar ve üretken olurlar. Önümüzdeki 25 yıl içerisinde bu alanlarda çok büyük ilerlemeler göreceğiz.

S. Hangi yöne doğru olacağını tahmin etmek mümkün değil.

A. Yapay zeka toplumun politik ekonomisinin işleyiş biçimini değiştirecek. Şu anda alışılmadık bir dönemdeyiz. Halkın kontrolde olduğu birçok demokratik ülke var. Ama bu durum çözülmeye yüz tutmuş gibi görünüyor. Yapay zeka, örneğin işgücü piyasasında güç dengelerini yeniden yapılandıracak. İşçiler greve gittiklerinde ne kadar güce sahip olurlar? Belirli tipte yapay zekaya sahip bir orduda kaç askere ihtiyaç vardır? Yapay zeka ile iş gücünün azalacağı tahmin ediliyor. Ama eğer insanların temel ihtiyaçlarının karşılandığı ve yapay zekaya erişebildiği bir dünya yaratmayı başarırsak, harika bir dünya olabilir. Ama aynı zamanda insanlığın temel koşulunun, tarihin büyük bölümünde, iktidarda olanların yönetmesi olduğu konusunda da endişeliyim. Ve buna sahip olmayanlar daha kötü yaşıyor.